Ngày 19 tháng 8 năm 1991, một ngày trước khi Gorbachev và một nhóm các nhà lãnh đạo các nước cộng hòa dự định ký kết hiệp ước liên bang mới, một nhóm tự gọi mình là Ủy ban Khẩn cấp Nhà nước (Государственный Комитет по Чрезвычайному Положению, ГКЧП) toan tính nắm quyền lực tại Moskva. Nhóm này ra thông báo Gorbachev bị bệnh và đã không còn nắm giữ chức vụ chủ tịch nhà nước. Khi vụ đảo chính nổ ra Gorbachev đang đi nghỉ tại Krym, và ở tại đó trong suốt thời gian cuộc đảo chính. Phó chủ tịch Liên bang Xô viết Gennady Yanayev được chỉ định làm Chủ tịch tạm quyền. Tám thành viên của Ủy ban gồm chủ tịch KGB Vladimir Kryuchkov, Bộ trưởng Nội vụ Boris Pugo, Bộ trưởng Quốc phòng Dmitriy Yazov, và Thủ tướng Valentin Pavlov, tất cả họ đều lên nắm quyền lực dưới thời Gorbachev.

Phó Tổng thống Gennady Yanayev cùng các lãnh đạo khác của cuộc đảo chính ngay lập tức lên đài truyền hình và radio đưa ra một tuyên bố buộc tội rất đanh thép chính quyền trước đó, nhưng dáng điệu yếu ớt và giọng điệu run rẩy của ông trong bài phát biểu ngay lập tức khiến mọi người có cảm giác ông không phải là người có thể mang lại trật tự xã hội, điều nhiều người đã nỗ lực tìm kiếm nhưng không hề thành công. Nhiều cuộc biểu tình lớn của quần chúng phản đối các lãnh đạo đảo chính ngay lập tức diễn ra tại Moscow và Leningrad; làm chia rẽ những lực lượng an ninh và quốc phòng trung thành khiến họ không thể được huy động một cách có hiệu quả để đàn áp sự đối kháng.

Tổng thống Cộng hòa Xã hội chủ nghĩa Xô viết Liên bang Nga lúc đó là Boris Yeltsin dẫn lực lượng phản đối từ trụ sở quốc hội Nga, được gọi là Nhà Trắng. Sau tuyên bố của Yanayev, Yeltsin phản đối mãnh liệt cuộc đảo chính. Tại một điểm của cuộc biểu tình, ông đứng trên nóc xe tăng cầm loa kết tội ГКЧП. Màn trình diễn mạnh mẽ của Yeltsin đã tạo ra một hình ảnh tương phản mạnh với sự xuất hiện yếu ớt của Yanayev. Hình ảnh này được truyền đi rộng rãi qua hệ thống phát thanh truyền hình trên toàn thế giới, trở thành một trong những hình ảnh sống mãi của cuộc đảo chính và củng cố mạnh mẽ vị trí của Yeltsin. Một kế hoạch tấn công vào tòa nhà trụ sở quốc hội của nhóm Alpha, một trong số các lực lượng đặc nhiệm của KGB, bị hủy bỏ khi toàn bộ lính nhất trí từ chối tuân lệnh. Một đơn vị xe tăng rời bỏ hàng ngũ của chính phủ, đến bảo vệ quanh tòa nhà quốc hội, chĩa tháp pháo ra ngoài.

Người dân Moscow đã tập trung gần Tòa nhà Quốc hội Liên bang Nga để bày tỏ sự ủng hộ cho Yeltsin và Gorbachev, họ cùng nhau xây các chướng ngại vật xung quanh Tòa nhà Quốc hội để chặn xe tăng của phe đảo chính.[5]. Phe đảo chính đã cố gắng bắt giữ Yeltsin nhưng thất bại, và chính Yeltsin đã huy động người dân tham gia chống lại cuộc đảo chính. Một đơn vị xe tăng rời bỏ hàng ngũ quân đảo chính đến bảo vệ tòa nhà quốc hội. Truyền thông quốc tế cho biết có hơn 200.000 người dân ở thành phố Leningrad đã tổ chức tuần hành để phản đối cuộc đảo chính[6]

Nhiều vụ xô xát đã xảy ra tại những con phố gần đó, gồm cả một vụ dẫn tới cái chết của ba người phản kháng do không may bị xe tăng húc phải, nhưng tổng cộng số lượng bạo lực lại ít một cách đáng ngạc nhiên. Ngày 21 tháng 8, đại đa số quân đội được gửi tới Moscow công khai đứng về phía những người phản kháng hay đình hoãn việc phong toả. Vụ đảo chính thất bại, và Gorbachev — người đang bị quản thúc tại gia ở ngôi nhà nông thôn của ông tại Krym — quay trở về Moscow dưới sự bảo vệ của các lực lượng trung thành với Yeltsin.

Ngày 22 tháng 8, khi đã về tới Moscow, Gorbachev hành động như không hề biết tới những thay đổi đã diễn ra trong ba ngày trước đó. Ông hứa hẹn trừng trị những người thuộc phe cứng rắn trong Đảng Cộng sản Liên Xô (CPSU) và từ chức Tổng thư ký CPSU, vốn đã bị đình chỉ hoạt động theo một nghị định của Yeltsin, nhưng vẫn giữ chức Tổng thống Liên bang Xô viết. Sự thất bại của cuộc đảo chính dẫn tới một loạt những sự sụp đổ khác trong toàn bộ các định chế liên bang. Boris Yeltsin nắm quyền kiểm soát cơ quan truyền thông trung ương và các bộ cũng như các cơ quan kinh tế then chốt, và cuối cùng là toàn bộ nước Nga.